точность до n (десятичных) знаков

См. также в других словарях:

• Таблицы для перевода метрических (десятичных) мер в русские и русских — в метрические. — В Энциклопедическом Словаре принято употребление вообще десятичных мер, система которых по простоте своей обещает скоро сделаться международной. Основной единицей ее служит метр, французская мера длины, которой величина узаконена 7 го апреля 1795 …   Энциклопедический словарь Ф.А. Брокгауза и И.А. Ефрона

• Таблицы для перевода метрических (десятичных) мер в русские и русских — в метрические — В Энциклопедическом Словаре принято употребление вообще десятичных мер, система которых по простоте своей обещает скоро сделаться международной. Основной единицей ее служит метр, французская мера длины, которой величина узаконена 7 го апреля 1795 …   Энциклопедический словарь Ф.А. Брокгауза и И.А. Ефрона

• Пи (число) — У этого термина существуют и другие значения, см. Пи (значения). Иррациональные числа γ ζ(3)  √2  √3  √5  φ  α  e  π  δ Система счисления Оценка числа …   Википедия

• Округление — математическая операция, позволяющая уменьшить количество знаков в числе за счёт замены числа его приближённым значением с определённой точностью. Содержание 1 Методы 1.1 Варианты округления 0,5 к ближайшему целому …   Википедия

• Математика исламского средневековья — Данная статья  часть обзора История математики. Арабский халифат (750 г.) Математика Востока, в отличие от древнегреческой математики, в …   Википедия

• Числа с плавающей запятой — Плавающая запятая  форма представления действительных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее… …   Википедия

• Запятая плавающая — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… …   Википедия

• Машинный эпсилон — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… …   Википедия

• Плавающая запятая — форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто используемое представление… …   Википедия

• Плавающая точка — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… …   Википедия

• Числа с плавающей точкой — Плавающая запятая форма представления дробных чисел, в которой число хранится в форме мантиссы и показателя степени. При этом число с плавающей запятой имеет фиксированную относительную точность и изменяющуюся абсолютную. Наиболее часто… …   Википедия